с точностью до ... значащих цифр

с точностью до ... значащих цифр

The calculation is done with a precision of 10 significant figures.


Русско-английский научно-технический словарь переводчика. . 2003.

Игры ⚽ Нужен реферат?

Смотреть что такое "с точностью до ... значащих цифр" в других словарях:

  • Округление — математическая операция, позволяющая уменьшить количество знаков в числе за счёт замены числа его приближённым значением с определённой точностью. Содержание 1 Методы 1.1 Варианты округления 0,5 к ближайшему целому …   Википедия

  • Постоянная Апери — Иррациональные числа γ ζ(3)  √2  √3  √5  φ  α  e  π  δ Постоянная Апери (англ. Apéry s constant) в математике это вещественное число, обозначаемое ζ(3) (иногда ζ3), которое ра …   Википедия

  • АРИФМЕТИКА — искусство вычислений, производимых с положительными действительными числами. Краткая история арифметики. С глубокой древности работа с числами подразделялась на две различные области: одна касалась непосредственно свойств чисел, другая была… …   Энциклопедия Кольера

  • ВЫЧИСЛИТЕЛЬНЫЙ АЛГОРИТМ — точно определенное указание действий над данными, позволяющее с помощью цифровой вычислительной машины дискретного действия преобразовать за конечное количество операций нек рый массив данных (входные данные) в другой массив данных (выходные… …   Математическая энциклопедия

  • РЕНТГЕНОВСКОЕ ИЗЛУЧЕНИЕ — невидимое излучение, способное проникать, хотя и в разной степени, во все вещества. Представляет собой электромагнитное излучение с длиной волны порядка 10 8 см. Как и видимый свет, рентгеновское излучение вызывает почернение фотопленки. Это его… …   Энциклопедия Кольера

  • Обработка — 7. Обработка* Математический и (или) логический анализ результатов измерения Источник …   Словарь-справочник терминов нормативно-технической документации

  • Обработка результатов — 3.5. Обработка результатов По результатам просеивания вычисляют: частный остаток на каждом сите (ai) в процентах по формуле                                                                 (3) где mi масса остатка на данном сите, г; m масса… …   Словарь-справочник терминов нормативно-технической документации

  • Таблицы математические —         одно из важнейших вспомогательных вычислительных средств. Обычно Т. м. представляют собой совокупность значений какой либо функции y = f (x1,..., xn) для некоторых значений переменных. Запоминаемая в детстве таблица умножения у =x1 – x2… …   Большая советская энциклопедия

  • РЕНТГЕНОВСКОЕ ИЗЛУЧЕНИЕ — (рентгеновские лучи), эл. магн. ионизирующее излучение, занимающее спектр. область между гамма и УФ излучением в пределах дл. волн от 10 4 до 103 ? (от 10 12 до 10 5 см). Открыты в 1895 нем. физиком В. К. Рентгеном. Р. и. с l2? мягким. Источники… …   Физическая энциклопедия

  • СТ СЭВ 4826-84: Материалы текстильные. Покрытия напольные. Метод определения массы и толщины ворса и массы ворсовой пряжи — Терминология СТ СЭВ 4826 84: Материалы текстильные. Покрытия напольные. Метод определения массы и толщины ворса и массы ворсовой пряжи: 1.3. Аппаратура Для проведения испытаний применяют: 1) весы с погрешностью взвешивания не более 0,01 g; 2)… …   Словарь-справочник терминов нормативно-технической документации

  • Великая теорема Ферма — Издание 1670 года «Арифметики» Диофанта включает комментарий Ферма, в частности его «последнюю теорему» (Observatio Domini Petri de Fermat). Великая теорема Ферма …   Википедия


Поделиться ссылкой на выделенное

Прямая ссылка:
Нажмите правой клавишей мыши и выберите «Копировать ссылку»